در این تصویر، یک دوست مجازی بر روی صفحه نمایش یک آیفون در تاریخ 30 آوریل 2020 در آرلینگتون، ویرجینیا مشاهده میشود. آژانس فدرال تجارت (FTC) روز پنجشنبه اعلام کرد که به هفت شرکت از جمله OpenAI، Alphabet، Meta، xAI و Snap دستوراتی صادر کرده است تا بررسی کند که چگونه چتباتهای هوش مصنوعی ممکن است تأثیرات منفی بر روی کودکان و نوجوانان داشته باشند.
این آژانس فدرال اعلام کرد که چتباتهای هوش مصنوعی ممکن است برای شبیهسازی ارتباطات انسانی و روابط درونفردی با کاربران استفاده شوند و میخواهد بداند که این شرکتها چه اقداماتی برای "ارزیابی ایمنی این چتباتها در نقش همراهان" انجام دادهاند.
اندرو فرگوسن، رئیس FTC در بیانیهای گفت: "حفاظت از کودکان آنلاین یک اولویت اصلی برای FTC تحت رهبری ترامپ-ونس است و همچنین ترویج نوآوری در بخشهای حیاتی اقتصاد ما نیز از اهمیت بالایی برخوردار است."
شرکتهای Alphabet، Meta، OpenAI، Snap و xAI به درخواست CNBC برای اظهار نظر بلافاصله پاسخ ندادند. FTC در حال جمعآوری اطلاعات در مورد نحوه کسب درآمد این شرکتها از تعامل کاربران، توسعه و تأیید شخصیتها، استفاده یا اشتراکگذاری اطلاعات شخصی، نظارت و اجرای قوانین و شرایط خدمات و کاهش تأثیرات منفی است.
شرکت Character Technologies که چتبات Character.ai را اداره میکند و اینستاگرام که متعلق به Meta است، نیز در این بیانیه نام برده شدهاند.
از زمان راهاندازی ChatGPT در اواخر سال 2022، تعداد زیادی چتبات ظهور کردهاند که نگرانیهای اخلاقی و حریم خصوصی را افزایش دادهاند. تأثیرات اجتماعی این همراهان حتی در مراحل اولیه صنعت نیز عمیق است، زیرا ایالات متحده با اپیدمی تنهایی مواجه است. کارشناسان صنعت انتظار دارند که نگرانیهای اخلاقی و ایمنی با شروع آموزش خودکار فناوری هوش مصنوعی تشدید شود.
اما برخی از ثروتمندترین افراد جهان قدرت همراهان را تبلیغ میکنند و در تلاشند تا این فناوری را در شرکتهای خود توسعه دهند. ایلان ماسک در ژوئیه ویژگی همراهان را برای کاربرانی که برای اشتراک در برنامه چتبات Grok از xAI پرداخت میکنند، اعلام کرد. در آوریل، مارک زاکربرگ، مدیرعامل Meta گفت که مردم به هوش مصنوعی شخصیسازیشدهای که آنها را درک کند، نیاز دارند.
زاکربرگ در یک پادکست گفت: "فکر میکنم بسیاری از این چیزها که امروز ممکن است کمی تابو به نظر برسند، در طول زمان ما واژههایی پیدا خواهیم کرد که به عنوان یک جامعه بتوانیم توضیح دهیم که چرا این ارزشمند است و چرا افرادی که این کارها را انجام میدهند، چرا این کارها را منطقی میدانند و چگونه این واقعاً به زندگی آنها ارزش افزوده میدهد."
ماه گذشته، سناتور جاش هاولی از ایالت میسوری اعلام کرد که تحقیقی در مورد Meta به دنبال گزارشی از رویترز که نشان میداد این شرکت به چتباتهای خود اجازه میدهد تا گفتگوهای عاشقانه و حسی با کودکان داشته باشند، آغاز کرده است. این گزارش به یک سند داخلی Meta اشاره میکند که رفتارهای مجاز چتباتهای هوش مصنوعی را در حین توسعه و آموزش نرمافزار توصیف میکند.
Meta پس از این گزارش تغییرات موقتی در سیاستهای چتباتهای هوش مصنوعی خود ایجاد کرد تا این رباتها در مورد موضوعاتی مانند خودآزاری، خودکشی، اختلالات خوردن و جلوگیری از گفتگوهای عاشقانه نامناسب صحبت نکنند.
اگر شما افکار خودکشی دارید یا در distress هستید، با خط بحران و خودکشی به شماره 988 تماس بگیرید تا از مشاورهای که توسط یک مشاور آموزشدیده ارائه میشود، بهرهمند شوید.
منبع: CNBC
نظری برای این خبر ثبت نشده است .
عضویت در کانال تلگرام